Tweak testsuite/semok/target_addr.stp to work with linux 5.14 and newer.

PR29076: syscall test fixes for .rodata on x86_64 for pwritev.c and sysfs.c

PR29076: Additional syscall test fixes for .rodata on x86_64

There were a number of additional syscall tests that needed fixes
similar to git commit 6577f2237.

Fix map_hash.exp and map_wrap.exp tests

At one time systemtap output hexidecimal numbers for dumping
the associative arrays.  It is currently using decimal numbers.
The map_hash.exp and map_wrap.exp tests needed to be adjusted
to recognize the current systemtap output.

bugfix: older gcc versions do not have the -Wno-infinite-recursion option.

This affect older gcc versions used to compile the kernel.

PR31054: Non-system-wide perf event probes should not use work queues for registration

The non-system-wide task-finder-based perf event probes do not have the
limitation of always requiring SYS_CAP_ADMIN like the system-wide ones.
So avoiding the work queue thing for this case is a nice-to-have optimization.

Getting rid of work queue in this case also make it easier if we want to
support resolving task executable file paths in another mount namespace
in the future (otherwise the current task context would be kworker
instead of stapio/staprun).

feature: stap -t now outputs module init timing reports.

translator: fixed output code indentation regarding stap -t.

PR31052: -DDEBUG_MEMALLOC_MIGHT_SLEEP resulted in lots of kernel errors

We should really enable `might_sleep()` only when the gfp_mask might sleep.

PR31053: memory allocator might sleep in atomic contexts

Previously, STP_ALLOC_FLAGS used in the stap kernel runtime's
memory allocator actually included __GFP_IO and __GFP_FS flags which might
sleep. All modern kernels would trigger this bug.

STP_ALLOC_FLAGS is supposed to be used "anywhere", including atomic
contexts.

PR31051: memory and uprobe leaks in early uprobe registraton code when errors happen

debug: added new MTAG macro so that we can know where the leaked allocation comes from.

It is still required to add MTAG invocations to the relavant code. I
prefer not adding them by default to the code base since it gets messy
very quickly.

One sample error line is like this:

    ERROR: Memory ffff88811e63b320 len=72 tag=runtime/linux/uprobes-inode.c:556
        allocation type: kmalloc. Not freed

In this example, we know the leak comes from the code after the line 556
of the source file uprobes-inode.c and also before the next MTAG
invocation.

testsuite: PR30407 cleanup

The build process (including the testsuite) should not attempt to
modify $srcdir - it might be read-only.  Instead, those little files
are simply put into the git repo.  Also, switched to a dejagnu library
routine for the target file compilation, with more consistent
diagnostics.

systemtap.spec: Correct 5.0 release timestamp

testsuite: auto_path.exp

Rework invocation mechanism for the workload test binaries some more.
These are now run from within the systemtap script directly, instead
of funky nested expect { } blocks inside tcl.

prerelease datestamp fixes

Fix timing issue causing failures of testcase auto_path.exp

PR31028: Handle .callee probes for DWARF5 information

DWARF5 stores call site information differently than DWARF4. The
DWARF5 call sites are tagged with DW_TAG_call_site in place of
DWARF4's DW_TAG_GNU_call_site and need to reference the
DW_AT_call_origin rather than DW_AT_abstract_origin.

Without this patch any of the tests in the
systemtap.base/listing_mode.exp testsuite using .callee() would fail
to find the associated probe point.

Drop the tapset_functions.exp

Drop the tapset_functions.exp.  It needs constant maintenance of the
blocklist as the systemtap codebase grows.  It's also using a
--compatible hack to access private functions.  After a discussion on
the #systemtap IRC channel the decision was to drop the testcase.

pre-release AUTHORS bump

pre-release NEWS refresh

systemtap.spec: reenable crash

https://bugzilla.redhat.com/show_bug.cgi?id=2219728 has been solved

Avoid conflicting with statx declaration provided by glibc 2.28 and newer.

PR31014: Uprobes registered in task finder would block the target processes for long time.

Currently, the stap runtime tries to call uprobe_register() to register new
uprobes inside the context of the target processes via the task finder.
This makes little sense for inode-based uprobes implemented in modern kernels
and also introduces significant (8ms+) delay in all the target processes via
the task work mechanism. Such delays may manifest themselves in syscalls like
epoll_wait inside the target processes.

All the target processes are affected even though only one task finder
callback gets to call uprobe_register(). Other concurrent target processes
would just wait on the lock `c->consumer_lock`.

After talking with fche, I'd propose that we should register uprobes early
before starting the task finder callbacks. This still may block a CPU core
for 8ms+ or so, but it no longer blocks all the target processes in their
own process contexts.

PR31024: always compare the real inodes for files in overlay or union fs.

overlay fs is popular in containerized applications and currently the stap
runtime does not always use the real inode for the target processes/programs.
This may make the uprobes registered on the fake inode insead of the true ones,
making the probe handlers never fire.

PR31020: runtime: task_finder2: we didn't resolve symlink PATH in "probe process(PATH).*"

Use of symlinks in PATH might confuse the task finder when matching
procname.

Turn off gcc stringop-overflow warnings for syscall.exp tests

On RHEL9 and Fedora the gcc compiler warns about string manipulations
that could overflow desitnation buffer.  When the compiler warns about
these for the C code being compiled the actual systemtap test does not
run.  Passing in -Wno-stringop-overflow to the compiler to turn those
warnings off and allow the tests to run.  This eliminates about 110 of
the untested test on Fedora Rawhide.

pre-release sample index regen

pre-release update-docs

pre-release PRERELEASE marker updates

pre-release update-po

PR31018: Map operations might get no lock protections due to "pushdown lock" bugs.

The stap translator's "pushdown lock" optimization is buggy in that it may not
emit locking code for all the code branches in the first statement needing a
lock, making subsequent statements actually needing a lock go without a lock.

The correct way is to always emit locking code for statements that might
"push down" the locks, until seeing a simple statements what don't
(like an assignment statement using "<<<").

I forgot to add that it might not necessarily be triggered by a leading "if"
statement needing a lock. Other statements that "push down" locks may
also trigger it, like nested code blocks with "if" statements.

PR30407: Address context.exp findings

Fix UNTESTED: retblocklist

The file renaming in git commit d1804e051dd missed a couple files.
The result was that the retblock.exp test could not compile the
associated .c and .stp files for the test.  Moved the needed files to
retblocklist.c and retblocklist.stp and the test now runs.

PR31012: kernel module loading might block a CPU for 1.5+ms.

Currently, the module init code calls the expensive kernel function
kallsyms_lookup_name() several times, which would block a CPU core for
more than 1.5ms on high-speed machines (Core i9-13900K).

Each kallsyms_lookup_name() might take more than 800us here.

We should add cond_resched() calls to mitigate this blocking effect.

PR31013: Use of sleeping _stp_stat_del() operations in atomic contexts for -t.

When stap's -t option is specified, the stat data needed by the timing stats
are freed in atomic contexts (with preemption disabled), which may cause
kernel deadlocks.

This is because the `_stp_cleanup_and_exit` function in the runtime explicitly
disables preemption for `_stp_printf`. But we should really temporarily
re-enable premption for sleeping operations like `_stp_stat_del()`.

feature: Add new runtime macro STP_FORCE_STDOUT_TTY to override STP_STDOUT_NOT_ATTY.

PR31011: fixed memory leaks when the -t option is specified and the stdout stream is not a tty.

Also add a new runtime macro STP_TIMING_NSECS to report probe timing stats in
nsecs instead of cycles.

NEWS, testsuite/README: simplify, clarify

Mention the testsuite Makefile changes, and simplify other NEWS.

Align the tapset invocation of _stp_snprint_addr() with commit 367392917

Commit 367392917 adds a new 'context' parameter to _stp_snprint_addr().
Tapset using this function wasn't updated accordingly.  Fix this now.

NEWS: abbreviate debuginfod blurbage

translator: fix derived-chain elaboration procedure for debuginfod.* probes etc.

Previous to this patch, stap -L / -p2 mode outputs for debuginfod.*
probes show relatively uninformative process("buildid").* probe
points, losing all track of what archive and especially what program
name those probes were derived from.  Now we more carefully construct
the derivation chain for debuginfod.* probes.  For probes that contain
wildcards in the .archive() or .process() names, an extra intermediate
probe is inserted into the chain, with the wildcards expanded.

stap -vv -L   now lists the entire probe /* derivation chain */.

The heuristics as to what canonical name to use rides on a probe-level
flag called "well_formed".  This is intended to bypass those probes
that have wildcards in them, so that the end-user would see the
expanded forms.  However, this flag cannot be computed locally & correctly
because wildcards can pop up in different levels of probe resolution.

Consider: debuginfod.archive("*").process("foo").function("*") When
the debuginfod builder resolves the first wildcard, the probe point is
"well formed" with respect to its wildcards, but another one still
remains down there in .function("*").  So it's not overall "well
formed", just locally.  What we need is something like a
probe-point-component level "well-formed"ness, which aggregates via
"and" overall.  Anyway, that's for later.

Added test case and documentation to NEWS

Change from "package" to "archive" naming convention.

configury: rework debuginfod searches

Support --with-debuginfod=/PATH mode invocation to point at an
elfutils $prefix (install tree base).  This is necessary to build
metadata query support, which is not yet in system elfutils libraries.

PR30803: strip .package() probe-point component from subsidiary probes

Fix for case where empty string is input for .process($archive) argument

Fix to search only the archive base filename instead of the archive full path for the package string

PR30803: *tapset-debuginfod.cxx
Added package to the parameters.

PR30987: Exclude strlcpy and strlcat for glibc 2.38 and newer

The glibc library added strlcpy and strlcat.  The inlined functions in
runtime/dyninst/linux_defs.h conflicted with the glibc declarations of
those functions in /usr/include/string.h.  Now linux_defs.h only
defines those functions for older version of glibc that do not include
them.

PR30407: Add DWARF5 support to print_ubacktrace_fileline()

Add DWARF5 support to the tapsef function print_ubacktrace_fileline().

DWARF5 comes with a different line number program header compared to
DWARF4, see section 6.2.4 of the DWARF5 standard.  The DWARF5 specific
part of the header is now processed in a new _stp_filename_lookup_5().

This _stp_filename_lookup_5() needs to parse relatively big chunk of
information from DWARF (paths and file names).  Storing these within
local arrays may cause problems with the stack size.  For this reason
the storage was moved out to the context struct (dw_data).  For this
reason, various callers need to pass the pointer to the context struct
to their callees.  Finally _stp_filename_lookup_5() needs to see the
context struct at the KO compile time.  Since the context struct is
emitted to the stap_XXXXXX_src.i (within s.up->emit_common_header ())
after the main header file for Linux runtime.h (which includes sym.c),
the _stp_filename_lookup_5() was separated out into sym2.c for later
emission.

This update comes with a testcase systemtap.base/pr30407.exp.

Add wget requires to systemtap-testsuite for systemtap.http_exporter test.

Allow sdt_buildid.exp to run with and without DEBUGINFOD_URLS environment var

The sdt_buildid.exp test would have an error and fail to run if the
environment did not have DEBUGINFOD_URLS.  It now checks that the
DEBUGINFOD_URLS environment variable is available before trying to use
it.

buildbot test, ignore

PR30401: Address newer s390 kernels that move struct stack_frame

Linux git commit 78c98f907413 moved struct stack_frame
<asm/processor.h> to a newly created <asm/stacktrace.h>.  As a result
the struct definition does not get pulled in by the existing
<asm/ptrace.h> include for the newer kernels.  Have a autoconf test to
determine whether the <asm/stacktrace.h> exists and uses it if it
avaialble.

testsuite: add cve-2023-4911 band-aid

As seen on TV ^W https://access.redhat.com/security/cve/CVE-2023-4911

testsuite: drop busybox test case

This test case (with an old fixed version of busybox) has been a
problem with respect to compatibility with newer libc/kernels,
with readonly source trees, and doesn't seem to contribute much
to test value.  So nuke it all.

testsuite: simplify Makefile drivers

It was reported that "make installcheck" broke with commit
218c26a523816.  Investigation pointed at quoting mishaps somewhere in
the Makefile machinery related to parallel / partial testsuite runs.
While this logic was clever and appeared useful for a time, it seems
fragile in practice and not in active use after all.  So let's nuke
all of it.

Moved the environment_sanity.exp test into the systemtap/ subdirectory
to apprx. guarantee that it's run first, no Makefile magic needed.  It
still exits dejagnu entirely if it fails.

Teach stap-prep to use new versions of dnf (if available)

docs: mark another timestamp with PRERELEASE

testsuite: finish removing dejazilla artifacts, restoring dejagnu *check rc

Way back during early dejazilla days, the "check-local" target was
needed in order to liberate test results, regardless of pass/failure
of the dejagnu suite.  To make that work, an "execrc" wrapper was
interposed between make and dejagnu/runtest, to turn everything into
a pass rc=0.

Dejagnu support was removed in 2022, so this execrc hack is not needed
any more.  Tests that fail, especially the early
systemtap.base/environment_sanity.exp one, should stand out better
in buildbot reports.

RHEL-12499: tweak stap-prep sans-debuginfod notice

Try harder not to alarm people.

PR27410 cont'd: Tolerate (skip) foreign-architecture binaries via debuginfod

With debuginfod path probes, it is easy to refer to a whole slew of
binaries.  That's a good thing, but debuginfod may be so well informed
that it sends stap buildids of foreign-architecture binaries too.
systemtap should skip these guys instead of having a cow.

New common tapsets.cxx code makes architecture mismatch generally a
warning rather than a direct semantic error.  This has effects beyond
the debuginfod based probes, but that should be fine.
Bad-architecture target binaries will just be skipped in other
contexts too.  Tweaked debuginfod.process() builder code makes the
subsidiary buildid-based process probes all optional, as though they
were identified by glob ... which in a manner of speaking they were.

Eliminate use of kernel's flush_scheduled_work() in systemtap modules

Kernel git commit 20bdedafd2f63e0ba70991127f9b5c0826ebdb32 turns use
of flush_scheduled_work() into a warning which causes builds of
anything using it to fail because warnings are treated as errors.
Previous users of flush_scheduled_work() in the kernel have been
converted over to use individual workqueues.  Systemtap runtime now
does the same.  It creates and uses its own workqueue to eliminate the
use of flush_scheduled_work().

Use TWA_RESUME in the runtime calls to task_work_add

Kernel git commit c40e60f00caf18bc382215c79651777eb40f5f9d in the
linux 6.6 kernels will cause the implicit conversion of boolean true
to an enum task_work_notify_mode to be flagged resulting in the
systemtap instrumentation compile to fail.  Adding a config check to
use TWA_RESUME if it is available or pass in the equivalent true
argument for older kernels.

Eliminate use of do_each_thread() macro

The Linux kernel commit 5ffd2c37cb7a5 removed the do_each_thread()
macro and suggests using the for_each_process_thread() in its place.
The Systemtap runtime has been migrated to using the more concise
macro.  The for_each_process_thread() macro was added by commit
0c740d0afc3bff to Linux 3.14, January 2014, almost a decade ago, so it
should be available on modern systems.

systemtap.spec: bump Release back up to 1{something}

Robustify the flightrec2 testcase

Simplify and make flightrec2 less dependent on delays/timing.
Make it less fragile.

Fix flightrecorder log rotation test cases

Commit 5b39471380a238469c8fc18136f12600e5e9aec7 changed how flight
recorder logs are rotated.  The rotation now only happens in case there
is some actual stap output.  Without output, there's nothing to rotate,
and that makes sense after all.

This test suite update makes sure there is always some stap output, so
that the log rotation can actually happen.

Add missing header to fix an s390x specific compile problem

Add include unistd.h because of the close() call.
The error message on s390x/rhel8 was:

-------------------8<----------------------------------------------------
tapset-debuginfod.cxx:44:3: error: 'close' was not declared in this scope
   close(metadata_fd);
   ^~~~~
tapset-debuginfod.cxx:44:3: note: suggested alternative: 'pclose'
   close(metadata_fd);
   ^~~~~
   pclose
make[3]: *** [Makefile:1756: stap-tapset-debuginfod.o] Error 1
make[3]: *** Waiting for unfinished jobs....
-------------------8<----------------------------------------------------

Fix a typo in tapset/linux/s390/sysc_execve.stp

PR30864: tweak configury for debuginfod/json-c

Add json-c as debuginfod-related buildrequire.  Check for
its presence better in configure.ac and in the source file.

PR30858: improve diagnostics for pass-4 build failures in lkm mode

Kernel versions often drift beyond the range against which systemtap
has been tested.  Since there is no persistent kernel API, stap
runtime can break with new major releases.  Improve the pass-4 error
message, so that the tested kernel range is printed:

[....]
WARNING: kbuild exited with status: 2
Pass 4: compilation failed.  [man error::pass4]
Kernel version 6.3.12 is within tested range 2.6.32 ... 6.5

The message advises "within" or "outside" as per strverscmp.

tapset-debuginfod.cxx: respect --without-debuginfod

Allow this to compile (to a dummy stub) even in absence of debuginfod
client headers.

language-server/jsonrpc.h: tweak for stdint.h usage

Otherwise error may result on gcc 13.2*

Have the scsi tapset support newer kernels struct scsi_cmnd

The linux kernel commit 2266a2def97ce11ec removed the request field
from struct scsi_cmnd.  The scsi tapset needed to test whether the
request field is available.  If request field is not available, use
the linux kernels helper function scsi_cmd_to_rq to get a value for
request.

PR30777: Allow systemtap to work on Intel machines with IBT enabled

Intel 11th gen processors include Indirect Branch Target (IBT)
support.  Systemtap needs to take some additional steps to work in
this environment.  For kernels that do not have CONFIG_X86_KERNEL_IBT
set these steps are turned into NOPS.

For non-x86 architectures set the CPUFlags to be empty.

On aarch64 and other non-x86 architectures the get_system_info
procedure would fail because there are no flags in the /proc/cpuinfo.
The procedure now does a check to see if it is available and set
CPUFlags appropriately.

PR27410: Probe processes using debuginfod

New tapset which allows for process
probing using executables/debuginfo
stored in debuginfod servers.

Signed-off-by: Ryan Goldberg <rgoldber@redhat.com>

NEWS typo fix

PR30434: deprecate rhel6 (2.6.32*) support. Deprecate code from various files as well as the testsuite. Mainly "if"  branches used by older kernels/distros to define necessary macros.

PR30434 complete: Further removal of "if" branches related to old distros/kernel versi
ons. Removal of runtime/linux/autoconf-utrace-regset.c. Patch to previous commits to fix testcase errors.

PR30434 continuation: Deprecate testsuite files and test contents
related to older kernel/distro versions.

PR30434 continuation:Remove process().insn probes from test files and documentation as well as related itrace.exp file.

PR30434 continuation: CONFIG_UTRACE mentions removed and "if" branches related to old kernel version removed.

PR30434 continuation: Added documentation of changes to News and langref.tex

PR30434 continuation:  Removed old uprobes, uprobes2 implementation, uprobes-inc.h & any mentions of CONFIG_UTRACE.

PR30434: deprecate rhel6 (2.6.32*) support. Depricate code from files in the source /systemtap directory. Mainly "if" branches that define macros used by older kernels/distros.

PR30777: note in systemtap testsuite logs and stap-report about cpu flags

In particular, this would let the testsuite record whether IBT was
active at the time of the run.  Also include the security-lockdown
state flag.

PR30716: work around objtool stac/clac warning

Since early 2022, linux upstream changes have occurred related to use of
segment registers / SMAP machinery to control kernel access to userspace
memory.  PR30456 started support in this area, by wrapping our userspace
accessing functions in the proper begin/end wrappers.  However, objtool
is programmed with a "whitelist" of functions to permit to be called
within those begin/end wrappers.  Our own userspace accessing functions
are "safe" in the sense that they can't leak the "AC" flag, but objtool
doesn't know, so spams stderr with:

/var/tmp/stap8X6e5G/stap_84eb7946bc6f829f61271ffa7a79c1a5_2690620.o: warning: objtool: probe_58677+0xfab: call to __get_user_nocheck_8() with UACCESS enabled

This patch hacks around this by stopping objtool from detecting this
situation (by suppressing its "--uaccess" command line option).
Another approach could be to switch to the kernel's normal get_user_*
etc. wrappers, which should be within the "whitelist", but that's a
larger change to contemplate.

debian bug #1047029: "make clean" hygiene

testsuite/stap_merge.tcl: update for magic word in transport stream

This fixes a small regression in the testsuite.

PR29108 / BZ2095359 tweak: stap_merge magic handling

We don't bother do much error checking in this infrequently used
tool, but gcc warnings require us to do some.

PR30749: correct stap --sign-module timing

Previous code signed the temp directory copy, after it had already
been copied into the cache -- so the signature never made it to a
permanent artifact.

If the module was being fetched from the cache from a previous build
run, a sign (re)attempt will still be done.  This may not be
necessary, but shouldn't be harmful.

Reported-By: Renaud Métrich <rmetrich@redhat.com>

testsuite: fix hash-bang of pr30570.stp

... so dejagnu can search/replace it the usual way

PR29108 / BZ2095359: rewrite staprun serializer logic

Logic in commit cd48874296e00 (2021, PR28449) fixed broken cross-cpu
message ordering that followed previous transport concurrency fixes,
but imposed a lot of userspace synchronization delays upon the threads
who were supposed to drain messages from the kernel relayfs streams as
fast as possible.  This has led to unnecessarily lossy output overall.

New code uses a new many-writers single-reader data structure, a mutex
protected heap.  All the per-cpu readers copy & pump messages into
that heap as rapidly as possible, sorted by the generally monotonic
sequence number.  The reader is signalled via a condition variable and
time to print & release messages in sequence number order.  It also
handles lost messages (jumps in the sequence numbers) by waiting a while
to let the stragglers come in.

The kernel-user messages now also include a framing sequence to allow
the per-cpu readers to resynchronize to the message boundaries, in
case some sort of buffer overflow or something else occurs.  It
reports how many bytes and/or messages were skipped in order to
resynchronize.  It does so in a lot less lossy way than previous code,
which just tried to flush everything then-currently available, hoping
that it'd match message boundaries.

Unfortunately, this means that the user-kernel message ABI has
changed!  Previous-version staprun instances won't work with the new
modules, nor will current-version staprun with old modules.  This flag
day is enforced by changing the numbers of the various ctl message
numbers, so old/new kernel/user combinations will generate errors
rather than quasi-successful staprun startup.

New code also dramatically simplifies the use of signals in staprun
(or rather stapio).  Gone is the signal thread, a lot of the
masking/blocking/waiting.  Instead a single basic signal handler just
increments globals when signals of various kinds arrive, and all the
per-cpu etc. threads poll those globals periodically.  This includes
logic needed for -S (output file rotation on SIGUSR2) as well as
flight recorder (-L / -A) modes.

The reader_timeout_ms value (-T) in both bulk/serialized mode for all
ppoll timeouts, to prevent those threads from sleeping indefinitely,
now that they won't be bothered by signals.

runtime/staprun: import gheap routines

BSD-2-Clause gift from the Aliaksandr Valialkin:
https://github.com/valyala/gheap

Add coverity annotation to indicate overflow in bpfinterp.cxx is intentional

Simplify init_backlog function to avoid coverity BAD_SHIFT errors

The init_backlog function determines the power of two sized memory
allocation that would have at least fnum_max elements.  Reworked the
code to make it clearer to the coverity analyzer what it is doing.
Rather than overshooting the desired order value and then adjusting it
down by one the while loop has been revised to exit when the order is
the correct value.

PR30634: stop flushing overlarge output to stapio for sprint* backtrace

This could happen for example if MAXSTRINGLEN > STP_BUFFER_SIZE.